Veszélyes verseny veheti kezdetét a techóriások között

Yoshua Bengio kanadai informatikus rámutatott, hogy a DeepSeek térnyerése nyugtalanító fejlemény lehet az eddig amerikai dominanciájú területen. „Ez keményebb versenyt fog jelenteni, ami általában nem jó az MI-biztonság szempontjából” – fogalmazott a szakértő. Kifejtette, hogy az amerikai cégek és a DeepSeek egyéb versenytársai a vezető szerep megszerzésére összpontosíthatnak a biztonság helyett.

kihívására válaszul felgyorsítja a termékei piacra dobását. 

A szakértő hangsúlyozta, hogy az MI-rendszerek már most is képesek lehetnek veszélyes feladatokban segédkezni, akár egy okostelefon kamerájának segítségével. „Ezek az eszközök egyre hatékonyabbak, mivel képesek egy bonyolult feladatot kisebb, mindenki számára érthető lépésekre bontani, és interaktív módon segíteni azok helyes végrehajtását. Ez nagyon különbözik például egy Google-kereséstől” – magyarázta Bengio. 

Fejlődő képességek, növekvő veszélyek 

A jelentés szerint az MI-rendszerek hatalmasat fejlődtek az elmúlt egy évben a szoftverhibák önálló, emberi beavatkozás nélküli felismerésében, ami segítheti a hackereket a kibertámadások tervezésében. A dokumentum ugyanakkor arra is rámutat, hogy ezen akciók önálló végrehajtása egyelőre meghaladja az MI képességeit, mivel azok „kivételes szintű precizitást” igényelnek. 

Mélyreható következmények 

Bengio elmondta, hogy a gondolkodási képességek fejlődése megváltoztathatja a munkaerőpiacot is, mivel olyan autonóm ágenseket hozhat létre, amelyek képesek emberi feladatok elvégzésére, bár hozzátette, hogy az MI-rendszerek egyelőre nem tudnak teljesen önállóan működni. 

„Ha egy MI nem tud hosszú távon tervezni, akkor aligha tudja kijátszani az irányításunkat” – jegyezte meg. 

Biztonsági kihívások 

A közel 300 oldalas International AI Safety jelentés több más aggályt is említ a technológiával kapcsolatban: a csalások mellett a gyermekek szexuális kizsákmányolását ábrázoló tartalmak generálását, a kérdésekre adott elfogult válaszokat és az adatvédelmi jogsértéseket, például a chatbottal megosztott érzékeny információk kiszivárogtatását. A dokumentum szerint a kutatók még nem tudták teljes mértékben megoldani ezeket a problémákat. 

A jelentés leszögezi, hogy az MI jövője bizonytalan, a közeljövőben számos kimenetel lehetséges, beleértve a nagyon pozitív és a nagyon negatív végkifejletet is. Ám szerencsére van még lehetőségük dönteni arról, hogy a technológia melyik utat járja be. „Ebbe a bizonytalan állapotba akár bele is törődhetnénk, de a társadalmak és a kormányok dönthetik el, hogy miként kezelik ezt a helyzetet, és melyik utat választjuk” – zárul a jelentés. 

Kapcsolódó:

Címlapfotó: MTI/AP/Andy Wong

További cikkeinket, elemzéseinket megtalálják a makronom.hu oldalon.